“ZAO”换脸背后，你可能会成为色情网站的主角

前天，一款名为“ZAO”或“ZAO -逢脸造戏”的APP在安卓与苹果的应用商店下载量不断攀升，并且疯狂火爆社交媒体，迅速成为社会舆论的关注焦点。

这是一款玩法简单的“换脸”软件，使用者注册并同意“用户协议”后，使用者上传一张清晰的正脸照片然后通过肖像验证，随后使用者便能从APP提供的众多视频模板中选择自己心仪的经典角色例如“李现”“谢尔顿”“佟掌柜”等，经过不到10秒的处理时间，最后得到一段换上自己脸部的短视频或者GIF。

除了“ZAO”，在苹果的app store当中还可以搜索到诸如“AI换脸”“颜技”“奇幻变脸秀”等其他变脸软件，此外“天天P图”等软件也含有照片换脸类功能。

此类软件由来已久，并非一日之成。追溯至2017年12月，Reddit论坛一位名为“deepfakes”的用户首次将自己制作的AI换脸视频发布于互联网，它能够把照片和视频中的人脸替换成任何想要替换的人脸，包括将情色电影里的女主角换成了盖尔·加朵等好莱坞明星。

最终，迫于大量用户投诉，Reddit论坛封杀了“deepfakes”这个账号，但“deepfakes”账号背后的技术持有人直接开源了其AI换脸项目的代码。由此，人们就采用它的ID命名了AI换脸技术，称之为“deepfakes”。

今年三月，B站UP主“换脸哥”发布的一段94版射雕英雄传视频，饰演黄蓉的演员朱茵的脸替换成了杨幂的脸，相类似的事件还有将雷神替换成徐锦江的脸等视频。

关于换脸技术的法律、伦理、社会争议自其技术诞生之日便不绝于耳，然而在此之前换脸技术并未商业化，争议焦点多集中于公共领域的安全性思考。

公众此次对“ZAO”的用户协议及各种存在潜在问题的思考，无一不宣示着人工智能时代，商业公司与个体之间数据权利的战争打响，双方都有捍卫各自利益的立场，这其中的法益空间和权利边界如何划定，是留给我们法律人的命题。

01

充满争议的“用户协议”

安装APP后开始第一次使用之前，“ZAO”需要使用者在APP内部同意一份“用户协议”，协议当中有如下条款：

6、您的必要授权：除非另有约定，您使用“ZAO”上传及/或发布的用户内容的所有权、知识产权及其他法律权利，归您、您的许可方或者您的关联方所有，责任亦由您承担。

1)在您上传及/或发布用户内容之前，您同意或者确保实际权利人同意授予”ZAO”及其关联公司以及”ZAO”用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或者声音等)以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利；    

2）如果您把用户内容中的人脸换成您或其他人的脸，您同意或确保肖像权利人同意授予”ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于：人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权，以及利用技术对您或肖像权利人的肖像进行形式改动。    

3）“ZAO”及其关联公司可自行选择是否使用以及使用方式，包括但不限于将前述信息在“ZAO”及其关联公司旗下的服务平台上使用与传播，将上述信息再次编辑后使用，以及由“ZAO”及其关联公司授权给合作方使用、编辑与传播等。“ZAO”及其关联公司将尽最大努力在合理范围内使用上述内容，且您的必要授权并不代表“ZAO”及其关联公司对上述信息内容的必然使用，也不改变上述信息内容的所有权及其知识产权归属，更不影响您对上述内容信息任何合法使用；   

4）在您权益受到侵犯并且导致“ZAO”及其关联公司权益受损情况下，与“ZAO”及其关联公司作为一致行动人，授予“ZAO”及其关联公司同时代表您，针对进行该侵犯行为的任何第三方，提出警告、投诉、发起或者参与行政执法程序或民法、刑事司法程序，或谈判和解，并且您同意在“ZAO”及其关联公司认为必要的情况下共同参与该维权。 

这份协议的授权条款6-1条款为使用者的内容权利授权，从协议文本含义可知，这是一个全覆盖性的授权，以正面、反面、列举多个层次将授权的时间、抵御、范围、权利能力进行阐述，以确保完整获得使用者或著作权人享有的全部著作财产权利及邻接权利权利授权。

而6-2条款则是关于使用者的肖像权授权，在本条款中不仅包含肖像权本权利还有肖像权修改权。

6-3条款则在6-1和6-2条款的基础上进一步约定，“ZAO”有权对使用者的著作权、肖像权进行转授权、再许可，6-1和6-2条款是获取权利的常规条款，而到6-3条款才终于图穷匕首见，“ZAO”通过6-1和6-2条款免费获得了使用者的著作权、肖像权，而6-3则是为商业获利铺平了道路。

6-4条款则是“维权授权”条款，又称“维权一致行动条款”，这个条款用心非比寻常。

“ZAO”利用6-3条款对外进行转授权、再许可过程中，如果使用者因此与“ZAO”产生纠纷，无论是用户之间的纠纷，还是第三方与用户之间的纠纷，用过6-4条款，“ZAO”等于获得一把尚方宝剑，在纠纷斡旋中，“ZAO”自然会有更多余地选择保护公司利益的纠纷解决方案，而使用者对于自己的权利保卫程度完全看能否与“ZAO”公司利益一致，否则很有可能哑巴吃黄连。

通过这份“用户协议”，“ZAO”合法而且免费获得了用户的肖像著作权、肖像权，但是从6-1、6-2、6-3和6-4彼此之间环环相扣步步为营的条款设计，不难看出为何会引起如此之大的争议，深究不过如下原因：

涉嫌过度获取用户权利

其实，在“ZAO”软件当中涉及到的主要著作权权利是信息网络传播权，本身“ZAO”只需要用户向“ZAO”授权信息网络传播权即可，但是在条款6-1中非常强势地规定为“《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利”，那么等于默认用户在“ZAO”平台上一切具有智慧成果载体性质的创作行为其著作权均归属于“ZAO”，而且这一授权获取行为还是免费的，而“ZAO”却可以基于此进行商业化的营利行为，却不与著作权人分享著作权收益，很明显这是对用户权利的过度获取。

而在6-2条款当中则表现得更为淋漓尽致，肖像权是一种较为特殊的权利，兼具人格性和财产性，当肖像权以本权即人格权发挥作用时，权利人拥有对肖像的制作专有权和使用专有权，公民有权禁止他人非法使用自己的肖像权或对肖像权进行损害、玷污。

“ZAO”要求用户允许“ZAO”及其关联公司对肖像权利的肖像进行修改，但是这种修改是什么形态的修改、何种限度的修改均未作出合理说明及约定，而要求用户作出最大限度的权利授权。

换而言之，就算让用户的脸去演黄片，用户只要同意了这份“授权协议”，“ZAO”就可以为所欲为。

6-4条款同样得寸进尺，在“ZAO”公司权益受损的情况下，用户就得站出来一同与“ZAO”维权，那么用户在维权当中付出的成本由谁承担？维权最终获得的赔偿如何进行分配？在条款中也均未作出任何约定。

涉嫌侵犯版权方及用户的著作权

在“ZAO”当中所涉及的模板视频均为知名影视作品片段，也就是具有视听媒体版权的作品，目前仅仅只在“ZAO”的软件声明当中有这样一句话：

“ZAO产品上存在的短视频和表情等素材，除了特别声明是ZAO跟合作方进行版权合作的之外，均来源于ZAO用户自发的上传，ZAO不享有素材的商业版权。”

此条款是一个非常经典的“责任规避”条款，俗称“甩锅条款”，也就是“ZAO”上面除了本身平台自身获得版权的视频是合法的，用户自己上传的视频，“ZAO”不享有素材的版权，因此如果侵权不关“ZAO”的事。

这条顿时就跟6-1产生了迷之矛盾，6-1说用户内容著作权都归“ZAO”，这里又说素材不归“ZAO”，条款打架谁正式谁赢。

鉴于6-1条款存在于《用户协议》当中，而上述仅仅只是一条声明，自然是《用户协议》效力优先。所以说，用户上传的素材其实在“ZAO”那里默认著作权也归“ZAO”，最终用户利用这些素材创作出来的任何作品均存在侵犯原版权方或者其他用户的著作权的风险。

针对以上条款，可以根据相关法律法规主张其条款无效。

《合同法》第三十九条明确规定，采用格式条款订立合同的，提供格式条款的一方应当遵循公平原则确定当事人之间的权利和义务，并采取合理的方式提请对方注意免除或者限制其责任的条款，按照对方的要求，对该条款予以说明。    

《合同法》第四十条规定，格式条款具有本法第五十二条和第五十三条规定情形的，或者提供格式条款一方免除其责任、加重对方责任、排除对方主要权利的，该条款无效。    

《关于适用<中华人民共和国合同法>若干 问题的解释(二)》第九条规定，提供格式条款的一方当事人违反合同法第三十九条第一款关于提示和说明义务的规定，导致对方没有注意免除或者限制其责任的条款，对方当事人申请撤销该格式条款的，人民法院应当支持。    

《民法总则》第111条明确规定，自然人的个人信息受法律保护。任何组织和个人需要获取他人个人信息的，应当依法取得并确保信息安全，不得非法收集、使用、加工、传输他人个人信息，不得非法买卖、提供或者公开他人个人信息。

03

权利与进步之间的冲突

笔者非常尊敬的波斯纳法官在《波斯纳法官司法反思录》一书中，他写了这样一段令我深思的话：  

“法官拒绝同科学世界直接过招。有了深受法学院形式主义法律分析熏陶的法官助理，当需要解释时 ，法官们想用语义学来应对科学；当需要事实认定时，他们则委托他人来应对科学。因此，让陪审团成员解决那些法官无法应对的技术争点，法官就解脱了，将自己不理解的争点拱手交给了这些倒霉的行外人”。

随着科学日进千里，我们的生活也日新月异，曾经十年看不懂一个世代，如今三年就已经天翻地覆。5G来临，更多的技术革新还在不断发生，我们面临着着前所未有的挑战，那些改变我们生活的技术，同样对我们的法律也产生了巨大的影响。

“ZAO”的用户协议问题仅仅暴露出了冰山一角，其背后是人工智能时代下法律还未曾触及到的空间，以及潜藏的社会风险。就以AI换脸（deepfakes）问题来谈，我们所知所预见的问题就有以下四个：

私权侵犯

制作虚假的色情视频是deepfakes技术常见的运用方式之一。目前已经出现了此类纠纷，受害者多为女性，即利用deepfakes将受害者脸部换到色情视频上再到互联网上公开，由于此类视频真假莫辨，对受害者的隐私权、名誉权、肖像权造成严重损害。此前，就连加尔盖朵都未能幸免，亦有此类色情视频引发海量关注导致私人信息泄露被人肉，最终受害人自杀的惨案。

企业信誉及经济损失

deepfakes技术还可以用于一些刷脸的支付方式识别，以及伪造知名企业董监高、高管的授权视频，在商业交易当中，授权视频加上伪造的授权协议所形成的表见代理外观，普通人难以识别，也就容易造成巨大经济损失。对于上市公司而言，一旦上市公司的公司高管或者关联人的肖像被deepfakes技术用于伪造一些不雅、有损公司形象、商业信誉的视频，导致股价震荡、散播虚假商业信息等等，其造成的经济损失不可估量。

国家安全、公共安全受到威胁

“美国众议院议长Nancy Pelosi的一段深度伪造的谈话视频出现在社交媒体上，这段视频经由特朗普总统分享，在Facebook上获得了超过250万次的浏览量。早些的时候，美国前总统奥巴马的脸被“借用”来攻击特朗普总统，该视频在网站上也获得480万的浏览量。”［1］从前述例子可知，deepfakes技术可以让谣言以更权威、更可信的方式进行大规模传播，尤其容易成为煽动恐怖和暴力活动的工具，这将会对国家安全、公共安全造成极大威胁。

新闻媒体行业的社会信任衰退

“深度伪造技术的影响不仅局限于政治领域，对新闻业亦如此。在一个社会公众对记者和媒体普遍不信任的时代，深度伪造技术的诞生更是加剧了这种不信任。深度伪造不仅骗取公众信任，其存在也表明了媒体报道并不可靠；Citron对此表示赞同，“难以证伪的报道会使记者质疑有关真相的证据的真实性，从而阻碍该证据的呈现和报道。”虚假信息最终会掩盖并代替真相，Citron将此称为‘信任衰退效应’。” ［2］目前我们处于互联网信息高度自由化的时代，传统新闻媒体的公信力已经随着信息碎片化、自由化不断冲击，而deepfakes技术对信息伪造的能力，只会加剧这一混乱局面。

或许有些人看到这里就开始头大了，这样讨厌的技术，为什么还要让它大行其道。

大卫·汉密尔顿法官曾严厉地说，法律必须致力于日益为技术和技术进步推动的社会生活。对于科学和人文这两种文化的任何之一，法官和律师都没有当职业文盲的福分。

事实上，“deepfakes”技术背后的来源是一种名为GAN（生成式对抗网络）的AI模型，它在2014年10月由前谷歌技术大牛Ian Goodfellow发布的一篇GAN论文而奠定了地位，GAN是当前人工智能学界一个最热门的研究方向。DeepFaceLab是目前“deepfakes”技术当中较为常见的一个开源项目，最初的设想应用场景是用于制作电影回忆录、纪录片、历史资料还原、刑侦及医学中的人像还原。

技术本身是无罪的，但是使用技术的人需要受到规制。

“deepfakes”技术产生社会风险的原因主要有两方面，从前端来看是因为其检测识别难度极大，目前的技术还无法对深度伪造的内容进行准确识别，除非制造者主动标识。由于生成对抗网络（GAN）等深度学习技术处于不断发展的状态，在“猫鼠游戏”目前猫的技术还无法占上风的情况下，自然社会风险就显得更为不可控。

从其技术产生的后端来看，则是数据权利的冲突。商业公司需要用数据来获取商业利益，而个体用户则要保护个人数据以捍卫私权，两者地位相同，利益取向不同。其实除了公司与个体之间，公司与公司之间也存在着数据权利冲突。以去年今日头条与新浪的纠纷为例，今日头条通过用户授权将新浪微博内容自动腾挪到今日头条上来，那么我们不难预见，“ZAO”这类公司倘若利用其用户协议做相同的事情将会怎样。

数据是一个十分复杂的概念，在本文中我们姑妄定义为“肖像权数据”，是一种作为知识产权客体的知识产品，物理上具有无形性、可传输性，经济学上具有非竞争性和非排他性。

北京知识产权法院张玲玲法官在新浪诉脉脉一案当中提出了数据流动与使用的三重授权原则，即平台之间的数据流动（Open API模式）需要通过“用户授权+平台同意+用户同意”模式。在换脸类APP当中，以“ZAO”为例，其获取用户的肖像权数据进行运算并产生其他的商业利益，其数据流动必须是符合三重授权原则，并且平台方还应该采用相应的技术措施防止用户数据信息外泄以及不正当流动。

而回归到“ZAO”作为一家公司，其对所有用户的“肖像权数据”是否拥有“数据权”呢？倘若“ZAO”拥有数据权，则是否应该承担基于用户权利、公共利益相对应的“数据管理义务”。

欧美国家已经在探索建立数据产权和流动规则，例如GDPR《通用数据保护条例》（General Data Protection Regulation，简称GDPR），该条例当中确立一项衍生自版权项下的“数据库”权利，在我国目前并无此权利的法律明确规定，仅仅在法学著作中表述为“信息产权”。

而用户个体的“肖像权数据”则表现为“个人信息”，因为肖像具有个人生物识别信息的特征。《网络安全法》以及配套出台的国家标准《信息安全技术个人信息安全规范（GB/T35273-2017）》将个人信息定义为：包括但不限于自然人的姓名、出身日期、身份证件号码、个人生物识别信息、住址、电话号码等。肖像权数据作为“个人生物识别信息”时，也就是例如支付宝的刷脸付款、刷脸验证等环节，这就体现了“个人信息”特征。

当“ZAO”公司获取数据的权利及潜在的“信息产权”与用户的 “肖像权数据”发生冲突时，尽管二者作为平等主体，价值位阶相同，我国法律应当有一个价值选择以解决这种困境。

结语

深度学习尤其是AI系统都是大数据学习，需要海量的数据来训练学习算法，这也就带来的新的隐忧，关于隐私和数据的忧虑。

一方面，AI对于数据包括敏感数据的大规模收集、使用、学习，由于“黑盒效应”我们无法预知训练后果，以及最终的应用场景，可能会对人们的生活、财产造成不确定性的负面影响，例如“deepfakes”技术对于应用场景的偏离，反而造成了更大的社会风险隐患和恐慌；另一方面，数据成为了新的流通物，某种程度上削弱了个体对个人数据的管控，因此在人工智能时代，法律如何平息数据权利战争，发挥定纷止争的作用，最终还是要回归到对“人”的权利义务本身。

［1］曹建峰、方龄曼.人工智能时代下的“烦恼”：美国国会听证会探讨“深度伪造（deepfake）”风险及对策，http://www.sohu.com/a/324367585_455313，2019年9月2日访问。

［2］曹建峰、方龄曼.人工智能时代下的“烦恼”：美国国会听证会探讨“深度伪造（deepfake）”风险及对策，http://www.sohu.com/a/324367585_455313，2019年9月2日访问。

近期好文